แท็ก

#Long Context

5 บทความ

Aleph Alpha ปล่อย Kolibri-1 โมเดล MoE 78B (active 3.46B) แบบ Apache-2.0 เน้นเยอรมัน-อังกฤษ — AIME 2025 ได้ 96.9 รองรับ context 1M แต่ยังแพ้ Qwen3.8-27B เกือบทุกช่อง
โมเดลใหม่

Aleph Alpha ปล่อย Kolibri-1 โมเดล MoE 78B (active 3.46B) แบบ Apache-2.0 เน้นเยอรมัน-อังกฤษ — AIME 2025 ได้ 96.9 รองรับ context 1M แต่ยังแพ้ Qwen3.8-27B เกือบทุกช่อง

3 ต.ค. 2026 Aleph Alpha สตาร์ทอัปจากเยอรมนีปล่อย Kolibri-1 โมเดล reasoning แบบ MoE ขนาด 78B ที่ใช้พารามิเตอร์จริงต่อโทเคนเพียง 3.46B ใต้ไลเซนส์ Apache-2.0 เทรน 20T โทเคนบน B200 768 ตัว รองรับ context 1M และ tool calling คะแนนชนะโมเดลกลุ่ม active ~3B ส่วนใหญ่ แต่ยังตามหลัง Qwen3.8-27B และรองรับแค่เยอรมันกับอังกฤษ ไม่มีภาษาไทย

· อ่าน 6 นาที
Xiaomi ปล่อยน้ำหนัก MiMo-V2.6 Pro (1.02T) และ Flash (309B) แล้ว — omni 1M context ลงวันเดียวกับที่ dashboard RL ปิดฉาก พร้อมป้าย MIT ที่ยังไม่มีไฟล์ LICENSE
โมเดลใหม่

Xiaomi ปล่อยน้ำหนัก MiMo-V2.6 Pro (1.02T) และ Flash (309B) แล้ว — omni 1M context ลงวันเดียวกับที่ dashboard RL ปิดฉาก พร้อมป้าย MIT ที่ยังไม่มีไฟล์ LICENSE

Xiaomi อัปโหลด MiMo-V2.6-Pro-RL (MoE 1.02T / active 42B) และ MiMo-V2.6-Flash-RL (309B / active 15B) ขึ้น Hugging Face เมื่อคืน 21 ก.ย. — รับข้อความ ภาพ วิดีโอ เสียง ในโมเดลเดียว context 1M เก็บน้ำหนักแบบ MXFP4 และการ์ดระบุ MIT แต่ใน repo ยังไม่มีไฟล์ LICENSE ส่วน dashboard RL ที่ถ่ายทอดสดมาตลอดสัปดาห์ปิดที่ 30 สเต็ป ตัวนับค่าใช้จ่ายรวมราว 3.5 ล้านดอลลาร์

· อ่าน 6 นาที
halogen 0.12.0: เอนจินที่เขียนเคอร์เนลให้ GPU ตัวเดียวและโมเดลตระกูลเดียว — prefill พรอมต์ 1 ล้านโทเคนบน Strix Halo เหลือ 17.9 นาที จาก 21.2 นาที
เครื่องมือนักพัฒนา

halogen 0.12.0: เอนจินที่เขียนเคอร์เนลให้ GPU ตัวเดียวและโมเดลตระกูลเดียว — prefill พรอมต์ 1 ล้านโทเคนบน Strix Halo เหลือ 17.9 นาที จาก 21.2 นาที

19 ก.ย. 2026 halogen-flash-server ออก 0.12.0 — เอนจิน inference ที่เขียนเคอร์เนลเฉพาะ AMD Strix Halo (gfx1151) กับ Qwen3.8-Flash-Next เท่านั้น รอบนี้รื้อสองเคอร์เนลของ sparse-attention indexer ทำให้พรอมต์ 1,004,581 โทเคน prefill เหลือ 17.9 นาทีและ decode 38 tok/s โดยเอาต์พุตยังเหมือนเดิมบิตต่อบิต — แต่เอนจินเป็นไบนารีปิดใต้ EULA ไม่ใช่โอเพนซอร์ส

· อ่าน 7 นาที
Step 5 Preview: StepFun ปล่อยเรือธง MoE 600B (active 27B) คอนเท็กซ์ 1M ขึ้น API วันนี้ — และนัดวันปล่อยน้ำหนักเปิดไว้ที่ 15 ต.ค.
โมเดลใหม่

Step 5 Preview: StepFun ปล่อยเรือธง MoE 600B (active 27B) คอนเท็กซ์ 1M ขึ้น API วันนี้ — และนัดวันปล่อยน้ำหนักเปิดไว้ที่ 15 ต.ค.

20 ก.ย. 2026 StepFun เปิดตัว Step 5 Preview โมเดล sparse MoE 600B พารามิเตอร์ (active 27B ต่อโทเคน) คอนเท็กซ์ 1M รับภาพและวิดีโอ ใช้งานผ่าน API ได้ทันที และประกาศว่าจะปล่อยน้ำหนักเปิดวันที่ 15 ต.ค. ตัวเลขอิสระจาก Artificial Analysis ยืนยันคำเคลมเรื่องราคา แต่ก็เผยจุดที่ต้องระวังด้วย

· อ่าน 8 นาที
DeepSeek-V4.1-Flash เปิดน้ำหนัก MIT ขนาด 552B ที่ใช้พารามิเตอร์แค่ 8B ตอนอ่านอินพุต — KV cache เหลือ 1/4 ราคา API ลด และ deepseek-v4-pro จะถูกส่งมาหาโมเดลนี้แทนตั้งแต่ 14 ก.ย.
โมเดลใหม่

DeepSeek-V4.1-Flash เปิดน้ำหนัก MIT ขนาด 552B ที่ใช้พารามิเตอร์แค่ 8B ตอนอ่านอินพุต — KV cache เหลือ 1/4 ราคา API ลด และ deepseek-v4-pro จะถูกส่งมาหาโมเดลนี้แทนตั้งแต่ 14 ก.ย.

10 ก.ย. DeepSeek ปล่อย V4.1-Flash ขึ้น Hugging Face ใต้ MIT แท้พร้อมเปิดบน API ในวันเดียวกัน เป็น MoE 552B สถาปัตยกรรม Causal Encoder-Decoder ใหม่ที่ใช้พารามิเตอร์ 8B ตอน prefill และ 16B ตอน decode KV cache เหลือ 890 ไบต์ต่อโทเคน คะแนน Terminal-Bench 2.1 สูงกว่า Opus 5 — แต่เบนช์มาร์กที่ยากกว่ายังห่างชัด ไม่มี chat template แบบ Jinja มาให้ และทุกคำขอที่ใช้ชื่อ deepseek-v4-pro จะถูกส่งไปหาโมเดลนี้แทนโดยอัตโนมัติตั้งแต่ 14 ก.ย.

· อ่าน 8 นาที